Frunze vốn mắc bệnh loét đường tiêu hóa mãn tính. Những người xung quanh đã nhiều lần khuyên ông đi phẫu thuật, tuy nhiên Frunze tỏ ra ưa thích các phương pháp chữa trị truyền thống hơn. Đến năm 1925, bệnh tình của Frunze đột ngột chuyển biến xấu và ông phải nhập viện. Lúc đó cả I. V. Stalin và Anastas Ivanovich Mikoyan đều tới gặp Frunze và yêu cầu ông phải phẫu thuật. Về việc này, Frunze đã viết thư cho vợ mình như sau:

Frunze chết vì ngộ độc chloroform trong quá trình phẫu thuật vào ngày 31 tháng 10 năm 1925. Ngay cả đối với trình độ y học thời đó, phẫu thuật loét dạ dày là một chuyện rất bình thường, vì vậy có nhiều ý kiến cho rằng các địch thủ chính trị của Frunze - hay chính bản thân Stalin - đã bày mưu đầu độc ông. Tuy nhiên hiện không có bằng chứng nào đủ mạnh để chứng minh cho việc này.[8] Có điều, trong cuộc phẫu thuật đó các bác sĩ đã dùng một lượng chlorofrom nhiều hơn bình thường vài lần.

Frunze được mai táng tại Nghĩa trang tường điện Kremli. Tất cả bốn bác sĩ phẫu thuật cho ông (Martynov, Grekov, Rozanov và Get'e) đều chết vào năm 1934[cần dẫn nguồn].